La aceleración de la inteligencia artificial podría ya estar perturbando procesos democráticos como las elecciones e incluso podría amenazar la existencia humana, advirtieron expertos en IA en la conferencia Reuters NEXT en Nueva York.
La explosión de la IA generativa -que puede crear texto, fotos y vídeos en respuesta a indicaciones abiertas- en los últimos meses ha generado entusiasmo sobre su potencial, así como temores de que pueda hacer que algunos trabajos queden obsoletos, alterar las elecciones e incluso posiblemente dominar a los humanos. .
«El mayor riesgo inmediato es la amenaza a la democracia… hay muchas elecciones en todo el mundo en 2024, y la posibilidad de que ninguna de ellas sea influenciada por falsificaciones profundas y cosas así es casi nula», dijo Gary Marcus, profesor. en la Universidad de Nueva York, dijo en un panel en la conferencia Reuters NEXT en Nueva York el miércoles.
Una de las principales preocupaciones es que la IA generativa ha impulsado los deepfakes (videos realistas pero inventados creados por algoritmos de IA entrenados en abundantes imágenes en línea) que aparecen en las redes sociales, desdibujando la realidad y la ficción en la política.
Si bien estos medios sintéticos existen desde hace varios años, lo que solía costar millones ahora podría costar 300 dólares, dijo Marcus.
Las empresas utilizan cada vez más la IA para tomar decisiones, incluso sobre precios, lo que podría conducir a resultados discriminatorios, advirtieron los expertos en la conferencia.
Marta Tellado, directora ejecutiva de la organización sin fines de lucro Consumer Reports, dijo que una investigación encontró que los propietarios de automóviles que viven en vecindarios con una población mayoritariamente negra o morena, y en estrecha proximidad con un vecindario de residentes mayoritariamente blancos, pagan primas de seguro de automóvil un 30% más altas.
«No hay transparencia para el consumidor de ninguna manera», dijo durante una entrevista en un panel.
Otra amenaza emergente contra la que los legisladores y líderes tecnológicos deben protegerse es la posibilidad de que la IA se vuelva tan poderosa que se convierta en una amenaza para la humanidad, dijo Anthony Aguirre, fundador y director ejecutivo del Future of Life Institute, en una entrevista en la conferencia.
«No debemos subestimar cuán poderosos son estos modelos ahora y cuán rápidamente se volverán más poderosos», dijo.
El Future of Life Institute, una organización sin fines de lucro cuyo objetivo es reducir los riesgos catastróficos de la inteligencia artificial avanzada, fue noticia en marzo cuando publicó una carta abierta pidiendo una pausa de seis meses en el entrenamiento de sistemas de inteligencia artificial más poderosos que el GPT-4 de OpenAI. Advirtió que los laboratorios de IA han estado «encerrados en una carrera fuera de control» para desarrollar «mentes digitales poderosas que nadie –ni siquiera sus creadores- puede entender, predecir o controlar de manera confiable».
El desarrollo de una IA cada vez más poderosa también correrá el riesgo de eliminar puestos de trabajo hasta el punto en que puede resultar imposible para los humanos simplemente aprender nuevas habilidades e ingresar a otras industrias.
“Una vez que eso suceda, me temo que no será tan fácil volver a convertir la IA en una herramienta y en algo que empodere a las personas. Y será más bien algo que reemplace a las personas”.
Para ver la transmisión en vivo del World Stage vaya a la página de noticias de Reuters NEXT: https://www.reuters.com/world/reuters-next/
Información de Anna Tong en San Francisco; Edición de Lisa Shumaker
Fuente: reuters
